机器人导航的目标条件政策可以在大型未注释的数据集上进行培训，从而为现实世界中的设置提供了良好的概括。但是，尤其是在指定目标需要图像的基于视觉的设置中，这是一个不自然的界面。语言为与机器人的通信提供了一种更方便的方式，但是现代方法通常需要以语言描述注释的轨迹的形式进行昂贵的监督。我们提出了一个用于机器人导航的系统，该系统享受着未注释的大型轨迹数据集培训的好处，同时仍为用户提供高级接口。我们没有在数据集之后使用标记的指令，而是表明可以完全从预先训练的导航模型（VING），图像语言关联（剪辑）和语言建模（GPT-3）中构建这样的系统，而无需任何微调或语言宣布的机器人数据。我们将LM-NAV实例化在现实世界中的移动机器人上，并通过自然语言指令通过复杂的室外环境演示长途导航。有关我们的实验的视频，代码发布和在浏览器中运行的交互式COLAB笔记本，请查看我们的项目页面https://sites.google.com/view/lmnav
translated by 谷歌翻译
深度神经网络（DNN）在解释图像数据方面取得了令人印象深刻的进步，因此可以在某种程度上可以在某种程度上使用它们，以在自动驾驶（例如自动驾驶）中使用它们。从道德的角度来看，AI算法应考虑到街道上的物体或受试者的脆弱性，范围从“完全没有”，例如这条路本身，是行人的“高脆弱性”。考虑到这一点的一种方法是定义一个语义类别与另一个语义类别的混淆成本，并使用基于成本的决策规则来解释概率，即DNN的输出。但是，如何定义成本结构是一个开放的问题，应该负责谁来执行此操作，从而定义了AI-Algorithms实际上将“看到”。作为一个可能的答案，我们遵循一种参与式方法，并建立在线调查，要求公众定义成本结构。我们介绍了调查设计和获取的数据以及评估，该评估还区分了视角（汽车乘客与外部交通参与者）和性别。使用基于仿真的$ f $检验，我们发现两组之间存在很大的显着差异。这些差异对在与自动驾驶汽车的安全临界距离内的可靠检测有后果。我们讨论与这种方法相关的道德问题，并从心理学的角度讨论了从人机相互作用到调查出现的问题。最后，我们在AI安全领域的行业领导者对基于调查的元素在自动驾驶中的AI功能设计中的适用性进行了评论。
translated by 谷歌翻译